只要24GB 内存,能在本地 Mac上跑无限制的Gemma 4 31B了
只要24GB 内存,能在本地 Mac上跑无限制的Gemma 4 31B了有个31B参数的大模型,正常需要80GB显存才能跑。但现在,24GB显存就能跑满血版。这个版本叫Gemma-4-31B-JANG_4M-CRACK——"CRACK"这个词不要理解歪了,它本质是量化压缩加上对齐微调之后的部署版本,不是什么黑客攻击,就是工程优化。24GB,MacBook Pro,直接跑。苹果用户优先优化,MLX原生支持,月下载13000次。
来自主题: AI资讯
8717 点击 2026-05-10 11:39